Sandberg kết hôn lần đầu năm 24 tuổi và ly hôn một năm sau đó (1993-1994). Đến năm 2004, cô cưới Dave Goldberg, một quản trị viên của Yahoo! và sau này là tổng giám đốc (CEO) của SurveyMonkey.[3][31] Cặp đôi sinh được hai con, một trai và một gái.[32] Ngày 1 tháng 5 năm 2015, Dave Goldberg bất ngờ qua đời do chấn thương đầu khi ngã từ máy chạy bộ trong chuyến du lịch của hai vợ chồng ở México.[33][34] Sandberg sau đó chia sẻ chồng cô mất vì rối loạn nhịp tim chứ không phải vì cú ngã trên.[35]